La tecnología Gaudi2 de Intel rivaliza con los aceleradores de IA de Nvidia en la inferencia de modelos lingüísticos a gran escala. El rendimiento de inferencia de Gaudi2 supera al de la Nvidia A100, con una mayor utilización del ancho de banda de memoria. Ofrece una mejor relación precio-rendimiento que la Nvidia A100 y H100, tanto en entrenamiento como en inferencia. Nuevos datos validan el rendimiento de Intel en la inferencia de modelos lingüísticos a gran escala. Se espera que la tecnología Gaudi3 se lance en 2024, ofreciendo un salto significativo en el rendimiento.

Un estudio muestra que la tecnología Intel Gaudi2 rivaliza con los aceleradores de IA de Nvidia en la inferencia de modelos lingüísticos a gran escala. El rendimiento de inferencia de Gaudi2 es comparable al de los sistemas Nvidia H100 en la decodificación, y supera al de Nvidia A100. Según los precios de la nube pública, Gaudi2 ofrece una mejor relación precio-rendimiento que Nvidia A100 y H100 tanto en entrenamiento como en inferencia. Intel Gaudi3, previsto para 2024, ofrecerá cuatro veces la potencia de procesamiento y el doble de ancho de banda de red. Intel...